技術問答
技術文章
iT 徵才
Tag
聊天室
2024 鐵人賽
登入/註冊
問答
文章
Tag
邦友
鐵人賽
搜尋
2023 iThome 鐵人賽
DAY
22
0
AI & Data
什麼演算法?一起來學機器學習!
系列 第
22
篇
Day22-LightGBM(Light Gradient Boosting Machine)
15th鐵人賽
機器學習
machine learning
lightgbm
學習筆記
yao021019
團隊
好想放假大學
2023-10-07 08:47:30
310 瀏覽
分享至
利用弱分類器(決策樹)迭代訓練或得強分類器,其具有訓練效果好、不易過擬合等優點。
LightGBM V.S. XGBoost
圖源:
https://reurl.cc/Ryyg9D
XGBoost
XGBoost是基於gradient boosting進行優化,包括加入正規化來防止過擬合等
XGBoost樹以水平方向生長,是一層一層生長
關於XGBoost在幾天前的文章中有寫過筆記
XGBoost的缺點:
需大量記憶體
花費時間較多
LightGBM
LightGBM樹以垂直方向生長(如圖),使用帶有深度限制的按葉子生長(leaf-wise) 的方式
透過GOSS技術,LightGBM能夠在保持較高預測效能的同時,減少記憶體消耗
GOSS的方法: 簡單來說就是保留有最大梯度的資料,並在其他具有小梯度的資料上採用隨機取樣
參考資料
https://chwang12341.medium.com/machine-learning-%E7%B5%A6%E8%87%AA%E5%B7%B1%E7%9A%84%E6%A9%9F%E5%99%A8%E5%AD%B8%E7%BF%92%E7%AD%86%E8%A8%98-kaggle%E7%AB%B6%E8%B3%BD%E5%BF%85%E5%82%99-86305848a0c4
https://zhuanlan.zhihu.com/p/31148458
留言
追蹤
檢舉
上一篇
Day21-主成分分析 (Principal Component Analysis)
下一篇
Day23-Naive Bayes Classifier
系列文
什麼演算法?一起來學機器學習!
共
30
篇
目錄
RSS系列文
訂閱系列文
6
人訂閱
26
# Day26-Single Shot MultiBox Detector (SSD) part1
27
# Day27-Single Shot MultiBox Detector (SSD) part2
28
Day28-Single Shot MultiBox Detector (SSD) part3
29
Day29-混淆矩陣(confusion matrix)
30
Day30-完賽啦!對於這次鐵人賽,我有話要說
完整目錄
直播研討會
{{ item.subject }}
{{ item.channelVendor }}
{{ item.webinarstarted }}
|
{{ formatDate(item.duration) }}
直播中
立即報名
尚未有邦友留言
立即登入留言
iThome鐵人賽
參賽組數
1064
組
團體組數
40
組
累計文章數
22173
篇
完賽人數
597
人
看影片追技術
看更多
{{ item.subject }}
{{ item.channelVendor }}
|
{{ formatDate(item.duration) }}
直播中
熱門tag
看更多
15th鐵人賽
16th鐵人賽
13th鐵人賽
14th鐵人賽
12th鐵人賽
11th鐵人賽
鐵人賽
2019鐵人賽
javascript
2018鐵人賽
python
2017鐵人賽
windows
php
c#
windows server
linux
css
react
vue.js
熱門問題
MSSQL 滿3個月的算法
請教舊電腦架網站的防護措施
qr code生成多功能系統
網路查詢指令應用
如何用指令自動偵測有插網線的網卡IP
JS 是否可以匯入「.xls」
電子書閱讀器購買和實體書的優缺勢分析
administrators群組成員的管理員權限不見
請示ip位置的問題
我只是要解新手任務 不用理這篇
熱門回答
請教舊電腦架網站的防護措施
administrators群組成員的管理員權限不見
AB兩點網路使用LTE數據機做連接
JS 是否可以匯入「.xls」
請示ip位置的問題
熱門文章
觀察 TCP UDP port 目的埠和應用程式的關係,CurrPorts 和 Microsoft Network Monitor
Python 中的控制流:讓程式更靈活
Win11 24H2 終於對 NTLM 動手了(感動
Microservice Pattern 犧牲了什麼?
Python for in 迴圈與 Tuple 解構
IT邦幫忙
×
標記使用者
輸入對方的帳號或暱稱
Loading
找不到結果。
標記
{{ result.label }}
{{ result.account }}